«человеческий интеллект», она достигает пика своих возможностей и ее восхождение заканчивается.
Но, как показала революция прагматиков, с этим предположением связаны две проблемы. Во-первых, есть и другие способы подняться на Гору способностей, кроме как следовать по определенному пути, который избрали люди. Дорога пуристов – это лишь один из способов совершить восхождение; технический прогресс открыл целый ряд других многообещающих вариантов. Второе откровение заключается в том, что в этом горном массиве есть и другие вершины, наряду с той, где гордо восседают люди. Многие люди отвлекаются на вид, открывающийся с вершины: глядя на менее приспособленные машины внизу или глядя друг на друга и удивляясь своим собственным способностям. Но если бы мы посмотрели вверх, а не вниз или вдоль, то увидели бы другие горы, возвышающиеся над нами.
Вероятно, на данный момент люди – самые способные машины в мире, но существует огромное количество других возможных форм, которые машины могли бы принять. Представьте себе космический склад, который хранит все эти различные комбинации и вариации: он был бы невообразимо большим, возможно, бесконечно большим. Естественный отбор затронул крошечный уголок этого огромного пространства, попав на один (хотя и очень длинный) путь эволюции, и сосредоточился на усовершенствовании человека. Однако люди, вооруженные новыми технологиями, сейчас исследуют другие. Там, где эволюция использовала время, мы используем вычислительную мощность. И трудно предвидеть, не столкнемся ли мы в будущем с различными конструкциями, совершенно новыми способами создания машин, которые откроют пики возможностей далеко за пределами досягаемости даже самых компетентных людей, живущих сегодня[223].
Если машинам не нужно воспроизводить человеческий интеллект, чтобы стать разумными, то огромные пробелы в современном научном понимании интеллекта имеют гораздо меньшее значение, чем принято считать. Нам не нужно разгадывать тайны работы мозга и разума, чтобы построить машины, способные превзойти людей. А если машинам не нужно нас копировать, то нет никаких оснований думать, что наши способности представляют предел возможностей будущих машин. Ведь принято считать, что интеллектуальная доблесть человека настолько велика, что для машин она недосягаема[224]. На самом деле очень маловероятно, что так будет и впредь.
Часть вторая. Угроза
Глава 5. Присвоение задач
Как прогресс в области искусственного интеллекта повлияет на занятость людей? Хотя машины уже научились многому, их возможности еще достаточно ограничены. У вредной замещающей силы есть границы. Беда в том, что они нечетко очерчены и постоянно меняются.
В последнее время вышли десятки книг, статей, обзоров и докладов, предлагающих самые разные подходы к изучению новых пределов возможностей машин. Один из них – попытаться определить, какие именно человеческие способности трудно автоматизировать. Например, оказалось, что новые технологии не справляются с задачами, связанными с социальным интеллектом – с действиями, требующими личного взаимодействия или эмпатии. С 1980 по 2012 год доля таких рабочих мест выросла до 12 % от общей численности рабочей силы США[225]. Согласно исследованию Pew Research Center 2014 года, многие эксперты все еще верят, что, несмотря на все достижения революции прагматиков, существуют определенные «уникальные человеческие качества, такие как эмпатия, креативность, суждение или критическое мышление», которые «никогда не будут автоматизированы»[226].
Другой подход ставит вопрос иначе. Дело не в том, могут ли человеческие способности быть воспроизведены машиной, – есть ли в самих задачах аспекты, облегчающие или затрудняющие их машинную обработку? Например, если вы сталкиваетесь с задачей, в которой легко выявить цель и определить, была ли эта цель достигнута, и задача при этом предлагает много данных для анализа, то она, вероятно, может быть автоматизирована[227]. Хорошим примером может служить распознавание фотографий кошек[228]. Цель проста: нужно ответить на вопрос «Это кошка?». Легко сказать, удалось ли системе добиться успеха: «Да, это действительно кошка». И в интернете есть много фотографий кошек, возможно, даже слишком много (около шести с половиной миллиардов, по одной из оценок[229]). С другой стороны, задачи, чьи цели неоднозначны или для решения которых не хватает доступных данных, могут находиться вне досягаемости машин. Экономисты из Федеральной резервной системы Центрального банка США предположили, что «сложность задач» также может быть полезным показателем границ способностей машины[230]. Например, Эндрю Ын, бывший директор лаборатории искусственного интеллекта в Стэнфорде, ищет задачи, которые «выполнит среднестатистический человек… посвятив им менее секунды размышлений»[231].
Однако очевидная проблема с обозначением границ для машин этими способами заключается в том, что любые выводы, к которым вы придете, очень быстро устареют. Те, кто пытается определить эти пределы, похожи на пресловутых маляров железнодорожного моста через Ферт-оф-Форт в Шотландии, настолько длинного, что, едва они добирались до конца, им приходилось снова браться за работу, потому что краска на другом конце уже начинала отслаиваться. Потратив какое-то время на размышления о способностях сегодняшних машин и придя к некоему выводу, вы обнаружите, что результат уже устарел и пора начинать сначала.
Рассуждая о возможностях машин, лучше отказаться от попыток конкретизировать ограничения. Подавите соблазн все систематизировать, похороните инстинкт составлять списки трудновоспроизводимых человеческих способностей и конкретных трудноосуществимых задач – вместо этого попытайтесь выявить более общие тенденции. Вы увидите, что под рябью прогресса, которую мы наблюдаем сегодня, скрываются глубинные течения[232]. Хотя трудно точно сказать, на что будут способны машины будущего, они несомненно смогут больше нынешних. Со временем машины будут постепенно, но неуклонно продвигаться все дальше в область задач, выполняемых людьми. Можно не сомневаться, что, с точки зрения будущего, любая ныне существующая технология, будь то смартфон или ноутбук, покажется примитивной.
Эту общую тенденцию, что машины берут на себя всё больше поручений, ранее выполнявшихся людьми, мы можем обозначить как «присвоение задач»[233]. И лучший способ увидеть ее в действии – разложить на три основных вида способностей, которые люди используют в работе: мануальные, когнитивные и аффективные. Сегодня каждая из них находится под все возрастающим давлением.
Когда Дэниела Белла, одного из величайших социологов XX века, попросили высказаться относительно автоматизации, он пошутил, что мы должны помнить старую еврейскую поговорку: «Пример – не доказательство»[234]. Тем не менее я надеюсь, что в потоке приведенных примеров эту тенденцию распознает даже Белл.
Физические способности
Начнем со способностей человека, связанных с взаимодействием с физическим миром: выполнение ручного труда и реакция на то, что мы видим вокруг. Традиционно эта физическая и психомоторная способность использовалась с экономическими целями в сельском хозяйстве, но за последние несколько столетий отрасль все больше автоматизировалась. Сейчас существуют доильные аппараты и беспилотные тракторы, дроны